Pyotr Aleksandrovich Rumyantsev là con trai duy nhất của Bá tước Aleksandr Ivanovich Rumyantsev và Maria, con gái và người thừa kế của Bá tước Andrey Artamonovich Matveev. Do mẹ ông thường sống chung với vua Pyotr I Đại đế, người ta đồn rằng Rumyantsev thật ra là con bất hợp pháp của Nga hoàng. Ông được đặt tên theo vị Nga hoàng này - cũng là cha đỡ đầu của ông. Ông là anh trai của Praskovja Bruce, một cận thần của Đại đế Ekaterina II.

Pyotr Aleksandrovich Rumyantsev tham chiến lần đầu tiên trong cuộc chiến tranh Nga-Thuỵ Điển (1741 - 1743), phục vụ cho cha ông. Bản thân ông đã mang lại cho Nữ hoàng Elizaveta Petrovna Hiệp ước Abo, do cha của ông ký kết với người Thuỵ Điển vào năm 1743. Sau đó, ông trở thành Đại tá Quân đội Nga.

Trong cuộc Chiến tranh Bảy năm (1756 - 1763), Đế quốc Nga tham gia cùng liên quân Áo - Pháp - Thụy Điển - Sachsen (v.v...) chống Vương quốc Phổ,[11][12] ông đã làm nên những thắng lợi huy hoàng đầu tiên trong các trận Gross-Jägersdorf (1757) và Kunersdorf (1759). Với những chiến thắng trước quân Phổ nêu trên, ông trở thành một trong những ngôi sao đang mọc trong lực lượng Quân đội Nga.[13] Bản thân ông cũng gọi Quân đội Nga - lực lượng đã giành chiến thắng kiểu Pyrros vua Friedrich II Đại Đế trong trận Kunersdorf, là một "Quân đội bất khả chiến bại của tôi".[14][15] Vào năm 1761, ông tiến hành vây hãm pháo đài Kolberg ở tỉnh Pomerania. Sau một cuộc vây hãm lâu dài, liên quân Nga - Thụy Điển đã chiếm được pháo đài này,[2] và mở đường cho Quân đội Nga tiến đánh kinh đô Berlin. Khi cướp được chìa khóa của pháo đài này, Rumyantsev đã gửi nó về cho Nữ hoàng Elizaveta Petrovna.[16]

Trong cuộc vây hãm Kolberg (1761), vị tướng cấp dưới Rumyantsev đã thể hiện tài năng và sự bền bỉ của ông.[17] Tuy nhiên, Quân đội Nga thất bại trong việc tiến đánh Stettin (Pomerania) trong khi cũng quân Thụy Điển bị quân Phổ của Đại tá Belling đánh bại.[18][19] Vị vua-chiến binh của nước Phổ - Đại đế Friedrich II - có ảnh hưởng lớn lao đối với Pyotr Aleksandrovich Rumyantsev.[6] Liên quân chống Phổ đều kiệt quệ và cuối cùng cuộc chiến tranh Bảy năm cũng kết thúc (1762 - 1763), và liên quân không chiếm được một tấc đất nào của Vương quốc Phổ.[20]